Baidu Cloud ha logrado recientemente encender el primer clúster de 10,000 tarjetas Kunlun X3 de desarrollo propio en China. Este avance sin precedentes no solo marca un paso importante para Baidu en el campo de la potencia de cálculo de IA, sino que también proporciona una nueva perspectiva de desarrollo para toda la industria. Con el continuo avance de la tecnología, el aumento de la potencia de cálculo es crucial para admitir el entrenamiento y la aplicación de modelos a gran escala. Durante el año pasado, con la popularización de la tecnología de IA, muchas empresas se han enfrentado a la escasez de potencia de cálculo, lo que ha provocado un aumento significativo en los costos de uso de los modelos a gran escala. Baidu declaró que mediante el desarrollo propio de chips...

Recientemente, Chengdu Huawave reveló en su plataforma de interacción que ha desarrollado con éxito un chip de inteligencia artificial especialmente diseñado para el campo de la computación perimetral. Este chip tiene una potencia de cálculo de IA de hasta 16 TOPS y actualmente se encuentra en una prueba piloto a pequeña escala en varios clientes de industrias específicas. Este nuevo chip no solo cuenta con una potente capacidad de cálculo, sino que también mostrará un rendimiento excepcional en la codificación y decodificación de video, con soporte para procesamiento de video de hasta 8K. Esto representa un importante avance tecnológico para aplicaciones como la videovigilancia y el hogar inteligente. Chengdu Huawave indicó que además de...

Dell Technologies ha logrado un gran avance en el campo del hardware de IA, convirtiéndose en la primera empresa del mundo en lanzar una nueva generación de sistemas de supercomputación de IA especializados. Este avance supone el comienzo de una nueva era en la construcción de infraestructuras de IA. Michael Dell, fundador y CEO de Dell, anunció a través de la plataforma de redes sociales X que la empresa ha comenzado a entregar las primeras unidades del sistema PowerEdge XE9712 refrigerado por líquido al proveedor de servicios de computación de IA CoreWeave.

En la ola de transformación digital, ONERugged ha revolucionado los dispositivos de IA de grado industrial. Este líder mundial en soluciones de computación industrial ha lanzado recientemente tres productos importantes: el portátil de IA robusto EM-X14M, el EM-X15M y la tableta de IA robusta EM-I14M, que han llamado la atención de la industria desde su lanzamiento. Como el primer dispositivo de IA industrial del mundo equipado con el procesador Intel® Core™ Ultra, estos productos alcanzan una potencia de cálculo de IA de hasta 32 TOPS. Equipado con un motor de IA dedicado (N...

Nvidia ha lanzado dos nuevos modelos de lenguaje grandes de código abierto, Nemotron-4-Minitron-4B y Nemotron-4-Minitron-8B, que utilizan métodos de entrenamiento eficientes basados en poda estructurada y destilación del conocimiento, reduciendo significativamente los requisitos de entrenamiento y el consumo de datos y potencia de cálculo. En comparación con los métodos tradicionales, los nuevos modelos reducen los datos de tokens de entrenamiento en 40 veces y el coste de la potencia de cálculo en un 180%. Mediante la optimización de Llama-3.18B, la poda estructurada simplifica la arquitectura del modelo, mientras que la destilación del conocimiento mejora el rendimiento. Minitron

Meta, el desarrollador del modelo de lenguaje básico Llama, señala que la potencia de cálculo necesaria para entrenar modelos futuros aumentará significativamente, y se espera que el entrenamiento de Llama 4 requiera 10 veces más cálculo que Llama 3. Ante esta tendencia, Meta destaca la importancia de construir capacidades de entrenamiento de modelos con anticipación para evitar quedarse atrás en la competencia. Meta ya ha lanzado Llama 3, con 800 millones de parámetros, y su versión mejorada Llama 3.1, con 4050 millones de parámetros, convirtiéndose en su modelo de código abierto más grande. Para adaptarse a las necesidades de los modelos futuros, Meta está...

El gobierno municipal de Hangzhou ha presentado el documento "Varias medidas para apoyar el desarrollo de alta calidad de toda la cadena industrial de la inteligencia artificial", con el objetivo de convertir a la ciudad en un centro nacional para el desarrollo de la industria de la inteligencia artificial. Estas medidas se centran en la construcción de infraestructuras de potencia de cálculo, la construcción de un ecosistema abierto, la potenciación de la economía real, el desarrollo de toda la cadena industrial y el apoyo a los equipos de talento, y presentan 14 medidas específicas. El contenido central incluye el apoyo a la investigación y el desarrollo de tecnologías de potencia de cálculo, el aumento de la intensidad de los subsidios financieros, la ampliación de la emisión de "cupones de potencia de cálculo", el fomento de la inscripción y el registro de modelos, así como la construcción de comunidades de código abierto, el apoyo a la construcción de plataformas de innovación pública y la demostración de aplicaciones de industrialización de nueva generación, etc. Las medidas pretenden, mediante subvenciones fiscales...

En la Conferencia de Socios de China Unicom 2024, Shen Dou, vicepresidente ejecutivo de Baidu Group, pronunció un discurso titulado "Abrazar profundamente la IA+ y acelerar el desarrollo de una nueva fuerza productiva". Explicó que, a medida que la aplicación de modelos grandes se acelera, la demanda de potencia de cálculo subyacente de las empresas crece continuamente, por lo que "una nube, múltiples chips" se convierte en una opción inevitable. Baidu Intelligent Cloud planea abrir la plataforma de potencia de cálculo Baige, ofreciendo libertad de elección de chips, y desarrollar la plataforma de cadena de herramientas Qianfan basada en el modelo grande Wenxin para reducir el umbral y el costo de uso de la tecnología de modelos grandes. Shen Dou enfatizó la importancia de la IA, señalando que los modelos grandes...

La empresa Gestión de alta tecnología, líder en potencia de cálculo, tiene una capitalización bursátil superior a los 300.000 millones de yuanes. Las acciones de la empresa han experimentado un fuerte aumento en el corto plazo. La relación precio-beneficio estática es de 156,31 veces, significativamente superior a la media del sector. La empresa ha revelado un proyecto de acuerdo para la adquisición de acciones de la empresa de tecnología inteligente Huakun Zhenyu. El precio de las acciones ha subido considerablemente recientemente, y aún no se ha completado la auditoría y evaluación de los activos del objeto de la transacción. Los datos del ranking de los operadores de grandes volúmenes muestran una gran entrada de capital.

Li Peng, vicepresidente senior de Huawei y presidente de BG de operadores, declaró en el Foro Mundial de Banda Ancha Móvil que las aplicaciones de IA, representadas por los grandes modelos, están generando una demanda explosiva de potencia de cálculo inteligente. Li Peng considera que, en la era de la economía digital, el 5G lidera el avance de las tecnologías de Internet de uso general, reconstruyendo un nuevo paradigma de economía digital, y diversas innovaciones se están acelerando. Las cinco tendencias futuras del desarrollo de la economía digital son cada vez más claras: para 2025, la demanda de potencia de cálculo inteligente alcanzará las 100 veces la actual. Para liberar plenamente este potencial de cálculo, se necesitan capacidades de red más avanzadas.

Para 2025, la escala de potencia de cálculo superará los 300 EFLOPS, la proporción de potencia de cálculo inteligente alcanzará el 35% y se logrará un desarrollo equilibrado de la potencia de cálculo entre el este y el oeste. Se dará prioridad a la construcción de centros de computación inteligente de forma concentrada en los centros de potencia de cálculo del oeste y las regiones con una base de desarrollo de inteligencia artificial relativamente buena. Se impulsará el desarrollo conjunto de la potencia de cálculo inteligente y la potencia de cálculo general de diferentes arquitecturas de computación para satisfacer las necesidades de diversos tipos de negocios. Se acelerará la construcción de potencia de cálculo perimetral para promover una distribución ubicua de la potencia de cálculo en la nube, el borde y el terminal. Se fortalecerá la construcción de potencia de cálculo sectorial para satisfacer las necesidades de transformación digital de diversos sectores.

Los recursos de potencia de cálculo podrían ser un factor decisivo en la competencia entre Google y OpenAI. Los recursos de potencia de cálculo de Google siguen creciendo rápidamente; la potencia de cálculo para entrenar Gemini ya es 5 veces superior a la de GPT-4. Los abundantes recursos de potencia de cálculo y una infraestructura eficiente se convertirán en armas poderosas para Google en la investigación y las aplicaciones comerciales de la IA.

1. Un modelo de lenguaje grande con cientos de miles de millones de parámetros necesita 266 servidores con 8 tarjetas A100, con una eficiencia de cálculo por tarjeta del 44%. 2. Para mejorar el rendimiento de los modelos de lenguaje grandes, es necesario optimizar el framework, la E/S y las comunicaciones. 3. En comparación con GPT-4, los modelos de lenguaje grandes nacionales presentan una brecha en potencia de cálculo, algoritmos y datos.